Autonome voertuigen maken nu al belangrijke keuzes over welke levens er meer toe doen dan andere, aldus experts. Dus het is waarschijnlijk verstandig om dit goed in de gaten te houden.
“Elke keer dat een auto een ingewikkelde manoeuvre uitvoert, maakt het een impliciete afweging met betrekking tot de verschillende partijen”, aldus Iyad Rahwan, een cognitieve wetenschapper van de Amerikaanse technische universiteit MIT, in een e-mail.
De bekendste problemen in de ethiek van zelfrijdende auto’s gaan over de vraag welke levens opgeofferd moeten worden bij een onvermijdbare botsing. Als een persoon bijvoorbeeld vlak voor een snel rijdende autonome auto op de weg valt, zou de auto tegen een lantarenpaal of vangrail kunnen crashen. De passagier komt dan mogelijk om het leven, maar de voetganger wordt gespaard.
Óf de auto kan rechtdoor blijven rijden, waardoor de voetganger mogelijk overlijdt. Wat moet de auto doen?
Rahwan en zijn collega’s hebben bestudeerd wat mensen als moreel juiste acties zien in situaties waar geen winnaars zijn (je kunt je eigen cases beoordelen in hun crowdsourceproject, Moral Machine).
Hoewel scenario's waar mensen worden opgeofferd nu nog hypothetisch zijn, zullen die zich in een wereld vol autonome voertuigen uiteindelijk wel voordoen, aldus Rahwan en anderen.
Dan zijn er ook nog de ethische vraagstukken die zich dagelijks voordoen. Hoe moeten autonome voertuigen zich gedragen wanneer ze langs een fietser of voetganger rijden?
"Wanneer je rondrijdt, ben je een risico voor iedereen om je heen", aldus Ryan Jenkins, professor filosofie aan de California Polytechnic State University. "Wanneer we langs een fietser of hardloper rijden, vinden we het prettig om ze wat extra ruimte te geven, omdat we denken dat dat veiliger is. Zelfs als we er zeker van zijn dat we niet verongelukken, realiseren we ons dat er onverwachte dingen kunnen gebeuren waardoor we moeten uitwijken."
En er is geen eenvoudige manier om die vragen te beantwoorden.
"Om de veiligheid van voetgangers 100 procent te garanderen, moet een autonoom voertuig elke keer dat het een voetganger passeert afremmen tot een slakkengangetje, voor het geval dat de voetganger besluit om zichzelf voor het voertuig te werpen", aldus Noah Goodall, een wetenschapper verbonden aan de Virginia Transportation Research Council, per e-mail.
Menselijke chauffeurs kunnen ethische vraagstukken beantwoorden op basis van intuïtie, maar dat is niet zo eenvoudig voor kunstmatige intelligentie. Programmeurs die werken aan autonome voertuigen definiëren expliciete regels voor elke situatie die zich voordoet, of zijn afhankelijk van algemene verkeersregels en hopen dat het op die manier goedkomt.
"Aan de ene kant kunnen de algoritmes die de auto besturen over een duidelijke set regels beschikken die morele voor- en nadelen afwegen", schrijft Rahwan. "Aan de andere kant, beslissingen die door een auto gemaakt worden in geval van onvermijdelijke ongevallen zouden kunnen voortkomen uit de interactie tussen diverse softwarecomponenten, waarvan geen enkele een expliciete regelset heeft voor morele voors en tegens."
Zelfs als programmeurs ervoor kiezen om dingen vaag te houden, zal er een zeker gedragspatroon naar voren komen in bepaalde situaties of algemene statistieken.
"In de woorden van Harvey Cox (een Amerikaanse theoloog, red.): 'niet kiezen is ook kiezen'", schrijft Oren Etzioni, CEO van het Allen Institute for Artificial Intelligence, in een e-mail.
Foto: Alle auto's van Tesla zijn nu al tot op zekere hoogte autonoom. Foto: Tesla
Hoe gaan bedrijven die werken aan zelfrijdende voertuigen om met dit soort vraagstukken? In veel gevallen proberen ze de vraag te ontwijken.
Hoewel dit soort problemen veel aandacht krijgen, onthoudt de autoindustrie zich meestal van commentaar. Toen een bestuurder van Daimler AG een standpunt innam, afgelopen herfst - hij zou hebben gezegd dat de Mercedes-Benz AV de passagier koste wat kost zou beschermen - kwam het bedrijf vervolgens met een duidelijke ontkenning: "Het is duidelijk dat noch de programmeurs, noch de automatische systemen het recht hebben om de waarde van een mensenleven te bepalen."
Daimler voegde daaraan toe dat het eigenlijk geen echte problemen zijn, omdat het bedrijf zich richt op "het vermijden van zo'n situatie, door bijvoorbeeld een risicovermijdende strategie te implementeren".
Ethici zullen er uiteraard op wijzen dat sommige risico's onvermijdelijk zijn - remmen gaan weleens stuk en andere bestuurders, voetgangers, dieren en fietsers kunnen onverwachte dingen doen - dus het is niet zo onrealistisch om te denken dat auto's op een bepaald moment moeilijke keuzes moeten maken.
Wat betreft Daimlers claim dat het alle levens als gelijkwaardig ziet, we mogen aannemen dat dat betekent dat het bedrijf geen duidelijke regels heeft geïmplementeerd waardoor de ene groep boven de andere groep wordt gezet. Maar impliciete vooroordelen zijn een heel ander verhaal.
Ondertussen heeft Google al meer details prijsgegeven dan anderen, over hoe het met ongelukken omgaat - een project met duidelijke ethische implicaties.
In 2014 zei Google X-oprichter Sebastian Thurn dat de auto's van het bedrijf er voor zullen kiezen om de kleinste objecten te raken: "Als er een situatie voordoet waarbij de auto niet kan ontkomen, zal het zich op het kleinste ding richten."
Een patent van Google uit 2014 dat gaat over de positie van de auto ten opzichte van de rijstrook naast het voertuig, volgt dezelfde logica. Daarin wordt omschreven hoe een zelfrijdende auto van een vrachtwagen weg beweegt, om dichter bij een auto aan de andere kant terecht te komen - omdat het veiliger is om tegen een kleiner voertuig aan te botsen.
Botsen met een kleiner object is, uiteraard, een ethische keuze: er wordt besloten om passagiers te beschermen door de schade te minimaliseren. Maar je kunt het ook zien als het verschuiven van het risico naar voetgangers en passagiers van kleinere auto's. Zoals professor filosofie Patrick Lin zegt: "Het kleinere object kan bijvoorbeeld een kinderwagen of een klein kind zijn."
In maart 2016, omschreef de toenmalige baas van Googles zelfrijdende-autoproject Chris Urmson ingewikkeldere regels tegenover de LA Times: "Onze auto's proberen om onbeschermde weggebruikers te beschermen: fietsers en voetgangers. Daarna proberen ze bewegende dingen te ontwijken."
Die aanpak klinkt erg pragmatisch. Maar het kan ook minder populair blijken onder de mensen die een zelfrijdende auto kopen en verwachten dat de machine hen koste wat kost beschermt.
Hoe moeten we omgaan met de ethiek van zelfrijdende auto's? Over een ding is er in ieder geval steeds meer consensus: er is meer discussie nodig over dit thema.
De Amerikaanse toezichthouder National Highway Traffic Safety Administration, zei in een onderzoek dat in september uitkwam dat "fabrikanten en andere entiteiten, moeten samenwerken met wetgevers en andere belanghebbenden om deze situaties aan te kaarten, zodat ethische afwegingen en beslissingen bewust en doelbewust worden gemaakt".
Wayne Simpson van de Amerikaanse consumentenbond Consumer Watchdog - die sceptisch tegenover autonome voertuigen staat - is het daarmee eens. Hij zei eerder: "Mensen hebben het recht te weten of een robotauto het leven van de passagier, de chauffeur of de voetganger voorop stelt, en wat het in die overweging meeneemt. Als deze vragen niet transparant worden beantwoord, zullen bedrijven deze auto's programmeren om hun eigen aansprakelijkheid te beperken, niet in overeenstemming met ethische gebruiken of de wet."
De zelfrijdende-auto-industrie lijkt ook te luisteren.
Apple - dat bekende autobedrijf - riep eerder op tot een "bedachtzame verkenning" waarbij input van "consumenten, experts, overheidsinstanties en de autoindustrie" wordt meegenomen.
Ford zegt ongeveer hetzelfde, en stelt dat het al "samenwerkt met diverse grote universiteiten en partners" om naar het ethische aspect van zelfrijdende auto's te kijken.
Tegelijkertijd waarschuwt Ford voor overmatig gefilosofeer. "We ... proberen dit te benaderen vanuit een gedisciplineerd perspectief, gebaseerd op technische expertise, in plaats van verzeild te raken in onrealistische hypothesen die niet echt opgelost kunnen worden", aldus Wayne Bahr, bij Ford verantwoordelijk voor de veiligheid van zelfrijdende auto's. "Een bekend probleem in elke discussie over de ethiek is dat iedereen een totaal verkeerd beeld heeft over wat autonome voertuigen kunnen. Elke vraag over de waarde van een persoon, impliceert dat een auto onderscheid op dat niveau kan maken."
De opmerkingen van Bahr refereren naar problemen met autonome voertuigen, waarbij gekeken zou worden naar leeftijd en sociale waarde, wanneer er besloten moet worden wie er omkomt bij een ongeval. Dit zijn, uiteraard, dingen die autonome voertuigen binnen afzienbare tijd niet kunnen herkennen.
Op de lange termijn is het meest ethische besluit misschien wel om zelfrijdende auto's de weg op te sturen. Zelfrijdende auto's zijn nu al veel veiliger dan menselijke chauffeurs, en volgens sommige voorspellingen zouden autonome voertuigen het aantal verkeersdoden met 90 procent doen afnemen.
Maar het bereiken van dat punt vereist wel dat er goede wetten worden gemaakt, en grote fouten die kunnen leiden tot grote rechtszaken of controverses worden voorkomen. Met andere woorden, ethiek is noodzakelijk.
Zoals Rahwan en zijn collega's Azim Shariff en Jean-François Bonnefon in The New York Times schreven: "Hoe sneller autonome voertuigen de weg op gaan, hoe meer levens er worden gered. Maar als we ons echt willen bevrijden van dat vervelende, gevaarlijke en verspillende rijsysteem waar we het nu al een eeuw mee moeten doen, moeten we de psychologische en technische uitdagingen wel serieus nemen."